Политици в град в Бразилия приеха закон, тайно написан от ChatGPT - и сега има шум

Имаше шум, когато политиците в бразилския град Порто Алегре откриха, че законът, който са приели, е написан от популярния чатбот на OpenAI.

Градските законодатели в Бразилия приеха това, което изглежда е първото законодателство в нацията, написано изцяло от изкуствен интелект (AI) - дори и да не са го знаели по това време.

The експериментална наредба беше приета през октомври в южния град Порто Алегре и градският съветник Рамиро Росарио разкри тази седмица, че е написана от чатбот, предизвиквайки възражения и повдигайки въпроси относно ролята на ИИ в обществената политика.

Росарио каза пред Асошиейтед прес, че е поискал от чатбота ChatGPT на OpenAI да изготви предложение, което да попречи на града да таксува данъкоплатците за подмяна на водомерите, ако бъдат откраднати.

След това той го представи на своите 35 колеги в съвета, без да направи нито една промяна или дори да ги уведоми за безпрецедентния му произход .

„Ако го бях разкрил преди, предложението със сигурност дори нямаше да бъде подложено на гласуване“, каза Росарио пред АП.

36-членният съвет го одобри единодушно и наредбата влезе в сила на 23 ноември.

„Би било несправедливо към населението да рискуваме проектът да не бъде одобрен просто защото е написано от изкуствен интелект“, добави той.

Създаване на „опасен прецедент“

Пристигането на ChatGPT на пазара само преди година предизвика глобален дебат относно въздействието на потенциално революционни чатботове, задвижвани от AI.

Въпреки че някои го виждат като обещаващ инструмент, той също така предизвика безпокойство и безпокойство относно непредвидените или нежелани въздействия на машина, която се справя със задачи, изпълнявани в момента от хора.

Подкрепям хората да използват ChatGPT за писане на сметки, стига да е ясно.

Порто Алегре, с население от 1,3 милиона, е вторият по големина град в южната част на Бразилия.

Президентът на градския съвет Хамилтън Сосмайер разбра, че Росарио е привлякъл ChatGPT да напише предложението, когато съветникът се похвали за постижението в социалните медии в сряда.

Сосмайер първоначално каза пред местните медии, че смята това за „опасен прецедент“.

Големите езикови модели на AI, които захранват чатботове като ChatGPT, работят, като многократно се опитват да отгатнат следващата дума в изречение и са склонни да измислят невярна информация, феномен, който понякога се нарича халюцинация.

Всички чатботове понякога въвеждат невярна информация, когато обобщават документ, вариращи от около 3 процента от времето за най-модерния GPT модел до процент от около 27 процента за един от моделите на Google, според наскоро публикувано проучване на технологичната компания Vectara.

В статия, публикувана на уебсайта на Harvard Law Центърът за правна професия на училището по-рано тази година, Андрю Пърлман, декан на юридическия факултет на университета Съфолк, написа, че ChatGPT „може да предвещава още по-значима промяна от появата на интернет“, но също така предупреди за потенциалните му недостатъци.

„Може да не винаги е в състояние да отчете нюансите и сложността на закона.

„Тъй като ChatGPT е система за машинно обучение, тя може да няма същото ниво на разбиране и преценка като човешки адвокат, когато става въпрос за тълкуване на правни принципи и прецедент. Това може да доведе до проблеми в ситуации, в които необходим е по-задълбочен правен анализ“, пише Пърлман.

Законопроект, написан от ChatGPT в САЩ

Порто Росарио на Алегре не беше първият законодател в света, който тества способностите на ChatGPT. Други са го направили в по-ограничен капацитет или с по-малко успешни резултати.

В Масачузетс сенаторът от Демократическата партия Бари Файнеголд се обърна към ChatGPT, за да му помогне да напише законопроект, насочен към регулиране на AI модели, включително ChatGPT. Подаден по-рано тази година, той все още не е гласуван.

Finegold каза в сряда, че ChatGPT може да помогне с някои от по-досадните елементи на законодателния процес, включително правилно и бързо търсене и цитиране на вече съществуващи закони книгите.

Въпреки това е изключително важно всеки да знае, че ChatGPT или подобен инструмент е бил използван в процеса, добави той.

„Искаме работата, която е генерирана от ChatGPT, да бъде с воден знак,“ той каза, добавяйки, че използването на AI за подпомагане на изготвянето на нови закони е неизбежно. „Подкрепям хората да използват ChatGPT, за да пишат сметки, стига да е ясно“.

Нямаше такава прозрачност за предложението на Росарио в Порто Алегре. Сосмайер каза, че Росарио не е информирал членовете на съвета, че ChatGPT е написал предложението.

Запазването на произхода на предложението в тайна беше умишлено. Росарио каза пред АП, че целта му е не само да разреши местен проблем, но и да предизвика дебат. Той каза, че е въвел подкана от 49 думи в ChatGPT и той върнал пълния проект на предложението за секунди, включително обосновките.

„Убеден съм, че... човечеството ще преживее нова технологична революция“, каза той . „Всички инструменти, които сме разработили като цивилизация, могат да бъдат използвани за зло и добро. Ето защо трябва да покажем как могат да бъдат използвани за добро.“

И президентът на съвета, който първоначално осъди метода , изглежда вече е повлияно.

„Промених решението си“, каза Сосмайер. „Започнах да чета по-задълбочено и видях, че за съжаление или за щастие това ще бъде тенденция“.

Последвайте ни в